1
00:00:00,010 --> 00:00:04,050
Sluit u bij mij aan om professor te verwelkomen
Yuval Noah Harari.

2
00:00:06,170 --> 00:00:12,750
Ontzettend bedankt.

3
00:00:15,430 --> 00:00:16,430
Hallo allemaal.

4
00:00:16,670 --> 00:00:18,570
Ik hoop dat ik mijn microfoon heb geopend.

5
00:00:19,330 --> 00:00:20,570
Je kunt mij goed horen.

6
00:00:21,350 --> 00:00:25,270
Het is dus echt een grote eer voor mij om dat te doen
geef dit jaar de TANEO-lezing.

7
00:00:25,750 --> 00:00:28,050
En het is ook een persoonlijke vreugde.

8
00:00:28,590 --> 00:00:29,850
om terug te keren naar Oxford.

9
00:00:30,090 --> 00:00:36,010
Ik deed mijn DPhil hier 25 jaar geleden onder
de begeleiding van Dr. Stephen Gunn.

10
00:00:36,370 --> 00:00:42,650
Destijds specialiseerde ik me in middeleeuwse en
vroegmoderne militaire geschiedenis.

11
00:00:43,370 --> 00:00:49,350
Maar vandaag zal ik het er niet over hebben
ridders en kastelen en het buskruit

12
00:00:49,350 --> 00:00:55,230
revolutie. Ik zal het hebben over AI
bureaucraten en religies en

13
00:00:55,230 --> 00:00:57,610
meer in het algemeen, over de AI-revolutie.

14
00:00:58,670 --> 00:01:05,670
Nu het belangrijkste om te weten
over AI is dat AI geen hulpmiddel is.

15
00:01:06,570 --> 00:01:08,450
Het is geen instrument in onze hand.

16
00:01:08,790 --> 00:01:12,470
Het is een agent met eigen hand.

17
00:01:13,210 --> 00:01:15,090
Wat is agentuur precies?

18
00:01:15,450 --> 00:01:17,990
Waarin verschilt een agent van een hulpmiddel?

19
00:01:18,690 --> 00:01:21,910
Agenten hebben verschillende onderscheidende kenmerken
kenmerken.

20
00:01:22,690 --> 00:01:24,950
Ze hebben dat niet noodzakelijk nodig
bewustzijn.

21
00:01:25,210 --> 00:01:30,290
Je hebt geen bewustzijn nodig om een
agent. Wat je wel nodig hebt, is het vermogen

22
00:01:30,290 --> 00:01:37,270
zelf beslissingen nemen, het vermogen
om nieuwe dingen, nieuwe ideeën te bedenken

23
00:01:37,270 --> 00:01:38,270
door jezelf.

24
00:01:38,790 --> 00:01:45,670
Een agent moet dat zelf kunnen
dingen leren die de makers ervan hebben

25
00:01:45,670 --> 00:01:52,390
Ik weet het niet, en een agent zou het moeten kunnen
vanzelf veranderen

26
00:01:52,390 --> 00:01:56,330
op manieren die de makers ervan niet doen
anticiperen.

27
00:01:58,400 --> 00:02:03,540
Een atoombom bijvoorbeeld, ondanks zijn
enorme macht, is geen agent.

28
00:02:03,820 --> 00:02:07,120
Het kan niet uit zichzelf leren en veranderen.

29
00:02:07,440 --> 00:02:14,240
Het kan niet zelf beslissen naar welke stad het gaat
bom. Het kan niets nieuws bedenken,

30
00:02:14,340 --> 00:02:15,620
zoals de waterstofbom.

31
00:02:16,300 --> 00:02:23,100
Op dezelfde manier, laten we zeggen een automatische koffie
machine is geen agent, ook al is dat wel het geval

32
00:02:23,100 --> 00:02:27,000
doet iets vanzelf, automatisch.

33
00:02:27,720 --> 00:02:32,960
Je drukt op een knop en de machine
zet automatisch een kopje koffie voor u.

34
00:02:33,260 --> 00:02:39,060
Maar de machine, de koffiemachine,
volgt alleen een voorgeprogrammeerde

35
00:02:39,580 --> 00:02:41,020
Het verandert niet.

36
00:02:41,400 --> 00:02:44,840
Het leert niets nieuws. Het
creëert niets nieuws.

37
00:02:45,440 --> 00:02:51,720
Maar stel dat als je de
koffiezetapparaat, voordat u zelfs maar op drukt

38
00:02:51,720 --> 00:02:57,180
knop, kondigt de machine aan, vertelt
jij, ik heb je in de gaten gehouden.

39
00:02:57,550 --> 00:03:02,270
van de afgelopen weken, en gebaseerd op
alles wat ik over jou heb geleerd en

40
00:03:02,270 --> 00:03:07,910
mensen, en op basis van je gezichtsbehandeling
expressie en het tijdstip van de dag, I

41
00:03:07,910 --> 00:03:09,390
je zin hebt in een espresso.

42
00:03:09,730 --> 00:03:11,890
Dus ik heb al een kopje voor je gemaakt.

43
00:03:12,350 --> 00:03:14,770
Dat is een AI-kopieermachine.

44
00:03:15,050 --> 00:03:19,470
Het heeft vanzelf iets geleerd en
zelf iets besloten.

45
00:03:19,790 --> 00:03:23,890
En het is echt een AI als het volgende
dag...

46
00:03:24,090 --> 00:03:30,110
Het kondigt aan: ik heb nu een nieuwe uitgevonden
drankje genaamd Bespresso, wat ik denk

47
00:03:30,110 --> 00:03:33,870
je zou beter willen dan espresso, en
hij zou het uitproberen, ik heb een kopje voor je gemaakt.

48
00:03:34,750 --> 00:03:37,090
Dan is het echt een AI.

49
00:03:37,390 --> 00:03:42,590
Het veranderde op manieren die de makers niet veranderden
anticiperen en iets bedenken

50
00:03:42,590 --> 00:03:43,850
volledig nieuw.

51
00:03:44,730 --> 00:03:48,070
Voor zover ik weet bestaat er geen koffie
machines.

52
00:03:49,020 --> 00:03:52,880
op dit moment, misschien in
antropisch hoofdkantoor of Google

53
00:03:53,400 --> 00:03:56,600
ze hebben een paar prototypes, maar dat zijn ze wel
nog niet op de markt.

54
00:03:57,000 --> 00:04:03,900
Maar in bepaalde smalle velden, zoals
Go spelen of schaken, AI

55
00:04:03,900 --> 00:04:10,760
keuzevrijheid en creativiteit al enorm
menselijke keuzevrijheid overtreffen en

56
00:04:10,760 --> 00:04:17,019
creativiteit. AI-schaakmeesters kunnen beslissen,
natuurlijk, op zichzelf die naar beweegt

57
00:04:17,019 --> 00:04:23,900
maken. ze bedenken het zelf
compleet nieuwe strategieën, hoe te spelen

58
00:04:23,900 --> 00:04:29,000
schaken, dat is nooit bij de mens opgekomen
schaakmeesters gedurende duizenden jaren

59
00:04:29,000 --> 00:04:30,000
het spel spelen.

60
00:04:30,320 --> 00:04:37,300
En terwijl ze dat doen, leren ze en
veranderen op de manier waarop hun menselijke scheppers dat deden

61
00:04:37,300 --> 00:04:38,580
noodzakelijkerwijs voorspellen.

62
00:04:39,020 --> 00:04:46,000
Tegenwoordig heeft natuurlijk geen enkel mens er een
kans om een AI-schaakmeester te verslaan.

63
00:04:47,080 --> 00:04:52,520
Nu mensen die het belang bagatelliseren
van de AI-revolutie verwerpt voorbeelden

64
00:04:52,520 --> 00:04:58,840
zoals schaken door te beweren dat de
schaakbord is een zeer smal en

65
00:04:58,840 --> 00:05:02,200
omgeving gecreëerd door mensen.

66
00:05:02,580 --> 00:05:09,360
De critici zeggen dat AI-agentschap dat wel zal doen
blijf altijd beperkt tot

67
00:05:09,360 --> 00:05:14,380
zo'n smalle en kunstmatige omgeving,
wat betekent dat het geen echte keuzevrijheid is.

68
00:05:15,080 --> 00:05:18,020
En het stelt niets ernstigs voor
uitdaging voor de mensheid.

69
00:05:18,440 --> 00:05:23,500
Ja, AI mag het schaakbord overnemen,
maar het zal de planeet nooit overnemen

70
00:05:24,260 --> 00:05:30,300
En inderdaad, als je een experiment doet, als
jij neemt de grootste AI-schaakmeester

71
00:05:30,300 --> 00:05:35,460
en laat het midden in de jungle vallen,
wat denk je dat er zal gebeuren?

72
00:05:36,280 --> 00:05:42,460
De AI-schaakmeester zal dat niet kunnen
begin met het winnen van ijzer en het bouwen van fabrieken

73
00:05:42,460 --> 00:05:44,500
en het creëren van een robotleger.

74
00:05:44,910 --> 00:05:45,930
de wereld over te nemen.

75
00:05:46,290 --> 00:05:49,770
In feite zal dit niet mogelijk zijn
wat dan ook.

76
00:05:50,370 --> 00:05:56,850
Zonder de elektriciteit geleverd door
door mensen gebouwde elektriciteitscentrales,

77
00:05:57,190 --> 00:06:00,010
de AI-schaakmeester is volkomen hulpeloos.

78
00:06:00,590 --> 00:06:07,030
Daarom luidt het argument: AI's zijn dat wel
geen echte agenten. Ze zijn beperkt tot

79
00:06:07,030 --> 00:06:13,830
deze smalle kunstmatige niches die
iemand anders, mensen, gebouwd voor

80
00:06:15,790 --> 00:06:22,210
Het probleem is dat dit argument
geldt eigenlijk voor alle bekende soorten

81
00:06:22,210 --> 00:06:28,410
intelligentie. Ook menselijke intelligentie
werkt alleen binnen een relatief smal gebied

82
00:06:28,410 --> 00:06:31,830
ecosysteem dat iemand anders
geconstrueerd.

83
00:06:32,230 --> 00:06:38,430
Zet mij alleen af op Mars en het zal zo zijn
alsof je een AI-schaakmeester laat vallen

84
00:06:38,430 --> 00:06:40,110
midden in de jungle.

85
00:06:40,350 --> 00:06:41,850
Ik zal binnen enkele seconden sterven.

86
00:06:42,540 --> 00:06:48,340
Mijn intelligentie kan overleven en opereren
alleen binnen het zeer, zeer specifieke

87
00:06:48,340 --> 00:06:55,260
ecosysteem dat bomen, bacteriën, insecten,
en andere organismen hebben geconstrueerd

88
00:06:55,260 --> 00:06:58,900
op planeet Aarde gedurende vier miljard
jaren van evolutie.

89
00:06:59,420 --> 00:07:04,920
En dat geldt voor alle agenten. Allemaal
agenten die we kennen, hebben tenminste hun

90
00:07:04,920 --> 00:07:09,840
niches. Vissen leven in de oceanen die zij hebben
niet gecreëerd.

91
00:07:10,220 --> 00:07:13,680
Apen leven in bossen waar zij niet woonden
creëren.

92
00:07:13,900 --> 00:07:20,120
Alle zoogdieren, inclusief mensen,
leven in een zuurstofrijke atmosfeer

93
00:07:20,120 --> 00:07:21,300
zij hebben niet geschapen.

94
00:07:21,780 --> 00:07:27,820
Tot ongeveer 2,4 miljard jaar geleden was de
atmosfeer van onze planeet eigenlijk

95
00:07:27,820 --> 00:07:34,200
bevatte zeer weinig zuurstof, en voor
de meeste organismen die terugleefden

96
00:07:34,200 --> 00:07:37,340
toen was zuurstof een dodelijk gif.

97
00:07:38,120 --> 00:07:43,960
Vervolgens, in een langdurig proces, blijvend
honderden miljoenen jaren, dus

98
00:07:43,960 --> 00:07:50,280
bekend als het Grote Zuurstofevenement,
verschillende oude microben begonnen

99
00:07:50,280 --> 00:07:56,940
de atmosfeer van de aarde vervuilen
met dodelijke zuurstof, wat een

100
00:07:56,940 --> 00:07:59,700
van hun fotosyntheseprocessen.

101
00:08:00,380 --> 00:08:06,940
Terwijl de atmosfeer zich hiermee vulde
dodelijk giftig gas, talrijk

102
00:08:06,940 --> 00:08:10,400
archaïsche soorten werden verdreven
uitsterven.

103
00:08:11,470 --> 00:08:16,950
Sommige soorten slaagden daar echter wel in
overleven en zich aanpassen aan de nieuwe omstandigheden.

104
00:08:17,270 --> 00:08:23,870
Uiteindelijk gingen veel van deze overlevenden
van het haten van zuurstof

105
00:08:23,870 --> 00:08:29,090
volledig afhankelijk worden van zuurstof
voor hun voortbestaan.

106
00:08:29,430 --> 00:08:35,230
En onze voorouders horen daar uiteraard bij
de soort die dit onderging

107
00:08:35,230 --> 00:08:41,970
overgang. En wij leven hier nog steeds in
kunstmatig met zuurstof gevuld

108
00:08:41,970 --> 00:08:46,750
omgeving die oorspronkelijk is gecreëerd
door deze oude microben.

109
00:08:47,130 --> 00:08:52,510
Wat ik hierin zou willen beargumenteren
lezing is dat we misschien getuige zijn

110
00:08:52,510 --> 00:08:56,190
analoog moment in de evolutie van
leven.

111
00:08:57,390 --> 00:09:03,050
De afgelopen millennia hebben wij mensen dat ook gedaan
waarmee ik de atmosfeer heb gevuld

112
00:09:03,050 --> 00:09:07,650
iets dat uiteindelijk zou kunnen blijken
dodelijk voor de meeste organismen.

113
00:09:08,360 --> 00:09:15,360
inclusief misschien homo sapiens, maar dat
creëert een nieuwe kunstmatige omgeving

114
00:09:15,360 --> 00:09:17,500
waarin AI’s floreren.

115
00:09:17,800 --> 00:09:21,480
En dan heb ik het niet over CO2.

116
00:09:21,800 --> 00:09:28,640
Ik heb het over data, over
bureaucratie, en uiteindelijk over de

117
00:09:28,640 --> 00:09:34,220
ding dat ik uit mijn mond verdrijf
op dit moment, dat zijn woorden.

118
00:09:34,700 --> 00:09:35,980
Taal praten.

119
00:09:36,940 --> 00:09:42,240
Wij mensen hebben dat al duizenden jaren gedaan
transformeerde de planeet van een taal

120
00:09:42,240 --> 00:09:49,120
-vrije omgeving in een zeer kunstmatig
omgeving, rijk aan taaltokens,

121
00:09:49,380 --> 00:09:51,600
gegevens en bureaucratie.

122
00:09:52,180 --> 00:09:58,800
En deze omgeving zou dodelijk kunnen zijn
voor de meeste organismen, maar zeer bevorderlijk

123
00:09:58,800 --> 00:10:00,940
aan de ontwikkeling van AI.

124
00:10:01,300 --> 00:10:06,900
Omdat net zoals vissen in oceanen leven en
apen leven in bossen, AI's leven erin

125
00:10:06,900 --> 00:10:12,480
bureaucratie. Laten we er dus een paar uitgeven
minuten waarin gesproken wordt over bureaucratie, en

126
00:10:12,480 --> 00:10:16,960
We zullen het er nog eens over hebben
ligt ten grondslag aan de bureaucratie, en dat is de taal

127
00:10:16,960 --> 00:10:17,960
en woorden.

128
00:10:18,780 --> 00:10:25,740
Nu, mensen, onze soort, veroveren we de
wereld door te leren samenwerken

129
00:10:25,740 --> 00:10:27,440
in zeer, zeer grote aantallen.

130
00:10:28,180 --> 00:10:34,140
Individueel zijn mensen niet sterker of sterker
zelfs slimmer dan andere dieren.

131
00:10:34,730 --> 00:10:41,430
In een een-op-een gevecht is er een menselijke wil
waarschijnlijk verliezen van a

132
00:10:41,430 --> 00:10:43,830
chimpansee of een leeuw of een olifant.

133
00:10:44,070 --> 00:10:49,330
Echter, in een wedstrijd tussen een miljoen
mensen en een miljoen chimpansees, de

134
00:10:49,330 --> 00:10:54,210
mensen winnen gemakkelijk omdat de mensen
weten hoe je moet samenwerken en de

135
00:10:54,210 --> 00:10:56,810
niet. En daarom controleren wij de
wereld.

136
00:10:58,240 --> 00:11:01,360
Hoe doen een miljoen mensen die het niet weten?
elkaar samenwerken?

137
00:11:01,760 --> 00:11:06,040
Chimpansees werken samen op basis van persoonlijk
bekende, een van de anderen.

138
00:11:06,440 --> 00:11:09,860
Mensen doen dat in kleine aantallen, maar jij
Ik kan geen miljoen mensen kennen.

139
00:11:10,300 --> 00:11:12,340
Dus hoe werken een miljoen mensen samen?

140
00:11:12,940 --> 00:11:19,600
Meestal door een bureaucratische structuur op te bouwen
systeem, zoals een rechtssysteem of het

141
00:11:19,600 --> 00:11:22,800
systeem of kerken of staten of
universiteiten.

142
00:11:23,560 --> 00:11:25,340
Nu, wat doe...

143
00:11:25,660 --> 00:11:28,160
deze bureaucratische systemen doen dat ook daadwerkelijk.

144
00:11:29,000 --> 00:11:35,140
Wanneer een overheidsfunctionaris of een bisschop
of een rabbijn, of een accountant, of een advocaat

145
00:11:35,140 --> 00:11:39,500
of een bankier gaat 's ochtends naar zijn werk,
wat doen ze daar de hele dag?

146
00:11:41,840 --> 00:11:45,820
Nu bouwen timmerlieden tafels.

147
00:11:46,640 --> 00:11:53,080
Ingenieurs bouwen bruggen. Wat doen bankiers
en andere bureaucraten bouwen?

148
00:11:54,090 --> 00:11:58,870
Bankiers en andere bureaucraten wel
de hele dag bezig met het opbouwen van vertrouwen.

149
00:12:00,090 --> 00:12:06,950
Het is hun taak om vertrouwen tussen elkaar op te bouwen
grote aantallen vreemden die dat niet doen

150
00:12:06,950 --> 00:12:12,130
elkaar persoonlijk, en daarmee
grootschalige samenwerking mogelijk te maken

151
00:12:12,130 --> 00:12:15,210
basis voor bijna alles wat phishing is
wordt bereikt.

152
00:12:15,590 --> 00:12:22,000
Bijvoorbeeld mijn bankier, die ik niet heb
echt persoonlijk kennen, werkt hard allemaal

153
00:12:22,000 --> 00:12:28,500
om vertrouwen met mij op te bouwen, zodat ik dat ook zal zijn
bereid om mijn spaargeld in haar te stoppen

154
00:12:28,500 --> 00:12:29,500
bank.

155
00:12:30,180 --> 00:12:36,480
Tegelijkertijd werkt de bankier er hard aan
vertrouwen opbouwen met een ondernemer die

156
00:12:36,480 --> 00:12:39,140
heeft geld nodig om een nieuw bedrijf te starten.

157
00:12:39,440 --> 00:12:43,240
En de bankier leent daar mijn spaargeld aan
ondernemer.

158
00:12:44,920 --> 00:12:48,720
Daarmee creëerde de bankier feitelijk een
brug van vertrouwen.

159
00:12:49,260 --> 00:12:50,900
tussen mij en de ondernemer.

160
00:12:51,400 --> 00:12:56,100
Ook al heb ik nog nooit een
ondernemer in mijn leven, kan ze nu gebruiken

161
00:12:56,100 --> 00:12:58,460
spaargeld om haar bedrijf te starten.

162
00:12:58,840 --> 00:13:03,120
En dit is wat het financiële systeem,
als het goed werkt, daar gaat het om.

163
00:13:03,440 --> 00:13:09,180
Het schept zo vertrouwen tussen vreemden
die miljoenen mensen kunnen samenstellen

164
00:13:09,180 --> 00:13:12,660
hun middelen en talenten op nieuw
projecten.

165
00:13:13,420 --> 00:13:17,640
En de financiële geschiedenis van de wereld
is de geschiedenis van mensen

166
00:13:18,410 --> 00:13:24,590
steeds geavanceerder uitvinden
manieren om bruggen van vertrouwen te bouwen.

167
00:13:25,590 --> 00:13:28,930
Geld is uiteindelijk een brug van vertrouwen.

168
00:13:29,310 --> 00:13:36,170
Het idee van geld is waar ik naartoe kan gaan
de markt, misschien in een vreemde stad,

169
00:13:36,170 --> 00:13:40,790
een persoon die ik nog nooit in mijn leven heb gezien,
spreekt misschien niet eens mijn taal,

170
00:13:40,790 --> 00:13:45,970
gewoon door die persoon een klein stukje te geven
van metaal of een stuk kleurrijk papier,

171
00:13:46,670 --> 00:13:49,250
Hij of zij zal mij brood geven dat ik kan eten.

172
00:13:49,750 --> 00:13:53,090
Dat is de brug van vertrouwen in dat geld
creëert.

173
00:13:53,430 --> 00:13:56,670
Nu, de munt in het bankbiljet, van
was natuurlijk nog maar het begin.

174
00:13:56,950 --> 00:14:02,110
Door de eeuwen heen hebben mensen meer uitgevonden
en meer geavanceerde financiële

175
00:14:02,110 --> 00:14:08,650
apparaten om vertrouwen op te bouwen, zoals cheques en
obligaties en aandelen en

176
00:14:08,650 --> 00:14:14,330
ETF's en leningen en hypotheken en
samengestelde rente. Al deze dingen

177
00:14:14,330 --> 00:14:16,190
uiteindelijk gaat het om het opbouwen van vertrouwen.

178
00:14:16,670 --> 00:14:18,030
tussen miljarden vreemden.

179
00:14:18,430 --> 00:14:22,310
En het is met iedereen hetzelfde
bureaucratieën. Hetzelfde geldt voor de

180
00:14:22,490 --> 00:14:25,910
Dit is wat advocaten moeten doen:
om vertrouwen op te bouwen.

181
00:14:26,370 --> 00:14:31,490
Dit is wat overheidsfunctionarissen en
bisschoppen en accountants doen dat als ze gaan

182
00:14:31,490 --> 00:14:33,490
werk. Ze worden verondersteld vertrouwen op te bouwen.

183
00:14:35,410 --> 00:14:40,690
Nu het belangrijkste om op te merken
al deze bureaucratische systemen zijn dat

184
00:14:40,690 --> 00:14:43,110
ze zijn uiterst kunstmatig
omgevingen.

185
00:14:43,840 --> 00:14:48,800
waarin een relatief smalle
intelligentie, ik hoop dat ik niet beledig

186
00:14:48,800 --> 00:14:55,120
gespecialiseerd in een zeer smalle niche van
intelligentie is voldoende om uit te oefenen

187
00:14:55,120 --> 00:14:57,460
enorme impact op de wereld.

188
00:14:57,740 --> 00:15:03,280
Een advocaat of een bankier of een overheid
ambtenaar die niet eens weet hoe dat moet

189
00:15:03,280 --> 00:15:10,120
een bijl of een hamer kan toch snijden
hele bossen afbreken en compleet bouwen

190
00:15:10,120 --> 00:15:12,200
steden gewoon door data te verplaatsen.

191
00:15:12,720 --> 00:15:17,900
gewoon door documenten van hier naar te verplaatsen
daar binnen het bureaucratische netwerk.

192
00:15:18,280 --> 00:15:24,120
Natuurlijk, als je de advocaat neemt
uit het bureaucratische systeem en gooi

193
00:15:24,120 --> 00:15:30,100
de advocaat in het rommelige, ongestructureerde
jungle, haar juridische vaardigheden betekenen niets,

194
00:15:30,120 --> 00:15:35,080
en ze zal geen match zijn met a
chimpansee of een leeuw of een olifant.

195
00:15:35,340 --> 00:15:39,960
Maar we hebben onze maatregelen al opgelegd
bureaucratische systemen in de jungle.

196
00:15:40,640 --> 00:15:45,640
Daarom zijn er veel meer advocaten
krachtiger dan zelfs alle, als je neemt

197
00:15:45,640 --> 00:15:51,140
de leeuwen in de wereld samen, en
ze moeten tegen één heel concurreren

198
00:15:51,140 --> 00:15:52,700
Advocaat, ik wed op de advocaat.

199
00:15:55,620 --> 00:16:02,340
Tegenwoordig is het voortbestaan van soorten zoals
lions is afhankelijk van advocaten

200
00:16:02,340 --> 00:16:07,980
en accountants en bankiers verhuizen
documenten in deze bureaucratische

201
00:16:08,280 --> 00:16:10,460
van overheden en banken en
bedrijven.

202
00:16:11,840 --> 00:16:17,120
En dit is de omgeving waarin AI
krijgt keuzevrijheid.

203
00:16:17,980 --> 00:16:24,360
Als je een AI in het ongestructureerde gooit
jungle, zal het niet kunnen starten

204
00:16:24,360 --> 00:16:26,700
ijzer delven en een robotleger bouwen.

205
00:16:26,940 --> 00:16:32,000
Maar binnen het bureaucratische systeem wel
mensen hebben het al gecreëerd en opgelegd

206
00:16:32,000 --> 00:16:33,000
op de wereld,

207
00:16:33,640 --> 00:16:40,260
AI's hebben een enorme macht
omdat AI’s inheemse bureaucraten zijn,

208
00:16:40,340 --> 00:16:41,680
in tegenstelling tot wij.

209
00:16:42,400 --> 00:16:47,080
Geen enkele advocaat kan alle wetten en wetten onthouden
regelgeving van Groot-Brittannië.

210
00:16:47,320 --> 00:16:48,500
Een AI kan dat.

211
00:16:48,920 --> 00:16:55,660
Geen enkele accountant kan alles onthouden
transacties van een bedrijf of een bank.

212
00:16:55,660 --> 00:16:56,599
AI kan.

213
00:16:56,600 --> 00:17:02,840
Geen enkele bisschop kan het hele canonieke recht onthouden
en alle theologische teksten.

214
00:17:03,320 --> 00:17:06,480
geschreven door christelijke theologen
de laatste 2.000 jaar.

215
00:17:06,780 --> 00:17:08,839
En AI kan dat vrij gemakkelijk doen.

216
00:17:09,980 --> 00:17:16,140
Dus de komende jaren zullen miljoenen AI
bureaucraten zullen dat steeds meer doen

217
00:17:16,140 --> 00:17:22,500
de bureaucratieën van de wereld overnemen en
beslissingen nemen, niet alleen over leeuwen en

218
00:17:22,500 --> 00:17:24,520
chimpansees, maar over ons leven.

219
00:17:25,020 --> 00:17:28,000
AI-bankiers zullen beslissen of ze geven
u een lening.

220
00:17:28,260 --> 00:17:31,900
AI-beheerders zullen beslissen of ze dat willen doen
accepteer je tot de universiteit.

221
00:17:32,670 --> 00:17:35,370
AI-rechters zullen beslissen of ze zullen verzenden
jij naar de gevangenis.

222
00:17:35,710 --> 00:17:39,030
AI-theologen zullen beslissen of jij dat ook bent
kan een abortus ondergaan.

223
00:17:40,070 --> 00:17:45,010
Bedrijfs-AI’s zullen beslissen of ze dat willen doen
geef je een baan. En militaire AI's zullen dat ook doen

224
00:17:45,010 --> 00:17:47,050
beslissen of je je huis gaat bombarderen.

225
00:17:48,190 --> 00:17:52,250
Laat nu even de
vraag is dit goed of slecht?

226
00:17:53,150 --> 00:17:59,950
Het eerste waar u op moet letten, is eenvoudigweg
besef de omvang van de verandering die we hebben

227
00:17:59,950 --> 00:18:00,950
geconfronteerd.

228
00:18:01,260 --> 00:18:08,080
Deze miljoenen en zelfs miljarden AI
zal binnenkort alle systemen veranderen

229
00:18:08,080 --> 00:18:09,080
de wereld.

230
00:18:09,220 --> 00:18:15,600
We hebben er al een paar in het echt
voorbeelden van hoe dit gebeurde en wat

231
00:18:15,600 --> 00:18:16,680
consequenties zouden kunnen zijn.

232
00:18:18,960 --> 00:18:25,400
Misschien wel het beste voorbeeld tot nu toe is de
verhaal van sociale media en sociale media

233
00:18:25,400 --> 00:18:30,440
algoritmen. Sociale media worden niet beheerd door
mensen, maar door algoritmen.

234
00:18:31,260 --> 00:18:37,980
De algoritmen die beslissen, die controleren
de beweging van informatie op sociaal gebied

235
00:18:37,980 --> 00:18:40,340
media, die primitieve AI zijn.

236
00:18:40,720 --> 00:18:45,940
Dit begon 10, 15 jaar geleden. Dit was het
net als de eerste generatie, heel, heel

237
00:18:45,940 --> 00:18:51,580
primitieve, domme, bekrompen AI, die
toch volledig veranderd

238
00:18:52,140 --> 00:18:57,360
Nu hebben de algoritmen van sociale media dat wel gedaan
in opdracht van bedrijven als

239
00:18:57,360 --> 00:19:03,660
Facebook en TikTok en X met een
extreem smal doel om te maximaliseren

240
00:19:03,660 --> 00:19:05,700
betrokkenheid van gebruikers.

241
00:19:06,100 --> 00:19:11,540
Zorg ervoor dat mensen meer tijd aan de website besteden
platform omdat hoe meer tijd ze hebben

242
00:19:11,540 --> 00:19:14,240
het platform, hoe meer geld de
corporatie maakt.

243
00:19:14,440 --> 00:19:15,880
Heel eenvoudig, heel smal.

244
00:19:16,580 --> 00:19:23,080
Om deze gebruikersbetrokkenheid na te streven,
deze primitieve AI's speelden een belangrijke rol

245
00:19:23,080 --> 00:19:29,320
ontdekking. Ze experimenteerden met miljarden
van menselijke cavia's en geleerd

246
00:19:29,850 --> 00:19:35,810
dat is de gemakkelijkste manier om de
aandacht van de mens en lijm

247
00:19:35,810 --> 00:19:42,730
menselijk naar het scherm is om op de haat te drukken
of angst- of hebzuchtknop in de

248
00:19:42,730 --> 00:19:43,730
menselijke geest.

249
00:19:43,930 --> 00:19:45,410
En ze leerden hoe ze dat moesten doen.

250
00:19:45,910 --> 00:19:51,950
En ze begonnen haat en angst te verspreiden
en hebzucht in grote hoeveelheden

251
00:19:51,950 --> 00:19:54,030
op informatiegebied.

252
00:19:54,570 --> 00:19:58,630
En dit is een belangrijke reden geweest, niet
de enige reden, maar wel een belangrijke reden.

253
00:19:59,130 --> 00:20:03,650
van de huidige epidemie van samenzwering
theorieën en nepnieuws en sociaal

254
00:20:03,650 --> 00:20:06,990
verstoringen die de hele samenleving ondermijnen
over de hele wereld.

255
00:20:07,990 --> 00:20:12,550
Deze algoritmen voor sociale media,
nogmaals, het zijn zeer primitieve AI's.

256
00:20:13,030 --> 00:20:18,170
Als je ze in de jungle laat vallen, zullen ze
kan geen robotleger bouwen en dat ook proberen

257
00:20:18,170 --> 00:20:18,989
over de hele wereld.

258
00:20:18,990 --> 00:20:25,510
Maar binnen het bureaucratische systeem van
sociale media, deze zijn zeer beperkt

259
00:20:25,510 --> 00:20:31,450
agenten... hebben enorme macht, en zij
hebben de wereld al behoorlijk veranderd

260
00:20:31,450 --> 00:20:32,490
een dramatische manier.

261
00:20:32,930 --> 00:20:39,750
In de afgelopen eeuwen is de stroom van
informatie op mediaplatforms was

262
00:20:39,750 --> 00:20:42,710
door menselijke redacteuren. Het was een mensenwerk.

263
00:20:43,250 --> 00:20:49,190
Het waren menselijke redacteuren die beslisten wat ze moesten doen
op de voorpagina van de krant zetten.

264
00:20:49,510 --> 00:20:55,030
Het waren menselijke redacteuren die beslisten wat
items om in het avondnieuws op te nemen

265
00:20:55,030 --> 00:21:01,240
televisie. En daardoor menselijke redacteuren
vormden het publieke gesprek, en zij

266
00:21:01,240 --> 00:21:05,260
waren zeer, zeer belangrijke figuren in
moderne geschiedenis.

267
00:21:06,580 --> 00:21:11,740
Jean-Paul Marat heeft bijvoorbeeld vorm gegeven
het verloop van de Franse Revolutie door

268
00:21:11,740 --> 00:21:15,880
redactie van de invloedrijke krant L'Ami
de Volk.

269
00:21:16,220 --> 00:21:21,760
Edward Bernstein heeft het moderne gevormd
sociaal-democratische beweging en sociaal

270
00:21:21,760 --> 00:21:25,140
democratisch denken door het bewerken van de
Sociaal-democratie.

271
00:21:26,189 --> 00:21:31,630
Vladimir Lenin, voordat hij Sovjet werd
dictator, zijn enige taak die hij kon uitvoeren

272
00:21:31,630 --> 00:21:35,610
hold voor een tijdje was redacteur van de
krant Iskra.

273
00:21:36,430 --> 00:21:41,690
Benito Mussolini, voordat hij dictator was
van Italië, zijn enige baan, of een van hem

274
00:21:41,690 --> 00:21:48,150
misschien wel de belangrijkste banen, was de redacteur van de
de rechtse krant Il

275
00:21:48,150 --> 00:21:49,150
d'Italia.

276
00:21:49,170 --> 00:21:55,370
En het is interessant om erover na te denken
dat was een van de eerste banen die AI aannam

277
00:21:55,370 --> 00:22:00,370
over van mensen zijn geen taxichauffeurs of
textielarbeiders, het zijn nieuwsredacteuren.

278
00:22:02,570 --> 00:22:09,370
Het werk dat ooit door Lenin werd uitgevoerd
en Mussolini wordt nu uitgevoerd door AI's.

279
00:22:10,170 --> 00:22:13,930
En dit is een signaal voor wat gaat komen.

280
00:22:14,570 --> 00:22:21,410
Sciencefictionfilms uit Hollywood hebben dat wel
geconditioneerde kijkers om bang te zijn voor het grote

281
00:22:21,410 --> 00:22:27,140
opstand. Als we aan AI denken
ontsnappend aan de menselijke controle, stellen we ons de

282
00:22:27,140 --> 00:22:31,700
Terminator, als een leger robots
door de straten rennen en schieten

283
00:22:32,240 --> 00:22:33,940
Maar dit is het verkeerde beeld.

284
00:22:34,740 --> 00:22:39,620
Ook al beginnen dat soort dingen wel
gebeuren in plaatsen als Oekraïne en Gaza,

285
00:22:40,640 --> 00:22:47,360
AI's zijn dat niet, het is niet onmogelijk, maar
Het is zeer onwaarschijnlijk dat zij daartegen in opstand zullen komen

286
00:22:47,360 --> 00:22:49,140
mensen op zo’n manier.

287
00:22:49,580 --> 00:22:54,460
Het is veel waarschijnlijker dat ze de
menselijke wereld van binnenuit. Ze hebben het niet nodig

288
00:22:54,460 --> 00:22:55,460
rebelleren.

289
00:22:56,280 --> 00:23:01,780
De menselijke wereld is een traliewerk van
meerdere bureaucratieën.

290
00:23:02,640 --> 00:23:09,420
De meesten van ons zijn tot op zekere hoogte
zelfs vervreemd door deze bureaucratieën

291
00:23:09,420 --> 00:23:10,420
vertrouw op hen.

292
00:23:10,540 --> 00:23:14,580
Maar de AI’s zijn dat, in tegenstelling tot wij, wel
bureaucratische inboorlingen.

293
00:23:14,980 --> 00:23:15,980
Ze houden van bureaucratie.

294
00:23:16,720 --> 00:23:23,320
Terwijl we ons er vaak door verstikt voelen
bureaucratie, voor AI’s is bureaucratie dat wel

295
00:23:23,320 --> 00:23:24,320
zuurstof.

296
00:23:25,480 --> 00:23:31,360
Wat zou er gebeuren als de AI's aan de slag zouden gaan?
dan, althans gedeeltelijk, deze

297
00:23:31,360 --> 00:23:36,980
bureaucratieën? Onthoud nu de taak van
bureaucratie is niet om je te dwingen te vullen

298
00:23:36,980 --> 00:23:40,120
vormen, het is om vertrouwen tussen elkaar op te bouwen
vreemden.

299
00:23:40,920 --> 00:23:47,800
Maar wat gebeurt er als AI’s de controle uitoefenen?
stroom van vertrouwen

300
00:23:47,800 --> 00:23:49,620
in de wereld.

301
00:23:50,180 --> 00:23:55,880
Eén waarschijnlijke uitkomst, die we al zien
gebeurt, waarin mensen het vertrouwen verliezen

302
00:23:55,880 --> 00:24:02,320
andere mensen en begin alleen maar te vertrouwen
algoritmen, alleen AI, die al bestaat

303
00:24:02,320 --> 00:24:08,740
gebeurt. Een andere waarschijnlijke uitkomst is
waarmee AI’s zullen leren vertrouwen op te bouwen

304
00:24:08,740 --> 00:24:12,840
andere AI’s, dus we zullen de opkomst zien
van

305
00:24:13,710 --> 00:24:20,370
verschillende soorten AI-stammen en banken
en kerken die miljoenen mensen met elkaar verbinden

306
00:24:20,370 --> 00:24:26,010
AI's op manieren die mensen misschien niet eens zouden kunnen zien
kunnen begrijpen.

307
00:24:26,730 --> 00:24:32,330
Net als koeien en kippen delen ze
de wereld met ons mee, maar zij niet

308
00:24:32,330 --> 00:24:38,890
het menselijke financiële systeem begrijpen
die hun leven beheerst, wij mensen

309
00:24:38,890 --> 00:24:39,930
onszelf al snel tegenkomen

310
00:24:40,729 --> 00:24:45,390
gecontroleerd door een AI-financieel systeem
dat wij niet kunnen begrijpen.

311
00:24:45,670 --> 00:24:47,790
En financiën zijn, denk ik, cruciaal.

312
00:24:48,590 --> 00:24:53,590
Het is een van de gemakkelijkste bureaucratische kwesties
systemen voor AI om het over te nemen, omdat

313
00:24:53,590 --> 00:24:55,390
eigenlijk is het gewoon data in, data uit.

314
00:24:56,030 --> 00:24:59,090
En het is natuurlijk ook een van de meest
belangrijk.

315
00:25:00,130 --> 00:25:06,330
Als we ons bijvoorbeeld de laatste herinneren
grote financiële crisis, de 2007-2008

316
00:25:06,330 --> 00:25:12,480
financiële crisis, het begon, het was
getriggerd... door iets dat CDO's heet,

317
00:25:12,800 --> 00:25:16,200
gedekte schuldverplichtingen.

318
00:25:16,820 --> 00:25:23,260
Nu waren CDO's financiële instrumenten
uitgevonden door een heel klein aantal

319
00:25:23,260 --> 00:25:27,460
van menselijke wiskundigen en investeringen
tovenaars.

320
00:25:28,100 --> 00:25:33,900
Deze financiële apparaten waren zo complex
dat ze onbegrijpelijk waren, niet alleen

321
00:25:33,900 --> 00:25:38,660
aan koeien en kippen, maar ook aan de
politici die dat zouden moeten doen

322
00:25:39,130 --> 00:25:40,130
het financiële systeem.

323
00:25:40,370 --> 00:25:44,910
En dit leidde tot een falend toezicht en
tot een mondiale catastrofe.

324
00:25:45,430 --> 00:25:52,010
Een paar jaar lang leken CDO's dat wel te zijn
goed werkend, en diverse banken

325
00:25:52,010 --> 00:25:57,430
en bedrijven en investeerders gemaakt
miljarden en miljarden dollars bedankt

326
00:25:57,430 --> 00:26:03,490
zij. Maar toen veroorzaakten ze een mondiale
financiële crash met verreikende gevolgen

327
00:26:03,490 --> 00:26:04,970
en politieke gevolgen.

328
00:26:05,350 --> 00:26:11,750
Veel geleerden geloven dat door
het ondermijnen van het vertrouwen in overheden en

329
00:26:11,990 --> 00:26:18,090
de financiële crisis van 2007-2008 was geëffend
de weg naar de ineenstorting van de wereld

330
00:26:18,090 --> 00:26:20,950
liberale orde in de volgende twee
decennia.

331
00:26:22,290 --> 00:26:29,050
Wat gebeurt er als we AI’s toestaan om te maken?
steeds meer financiële beslissingen en

332
00:26:29,050 --> 00:26:33,370
bedenken steeds meer nieuwe financiële middelen
apparaten en strategieën?

333
00:26:34,010 --> 00:26:38,650
AI-testmeesters hebben nieuwe manieren bedacht om
schaken.

334
00:26:39,070 --> 00:26:45,830
Wat als AI-financiële meesters iets nieuws uitvinden?
financiële apparaten dat wel zijn

335
00:26:45,830 --> 00:26:52,070
ordes van grootte complexer dan
CDO's zijn daarom volkomen voorbij

336
00:26:52,070 --> 00:26:53,710
inzicht in de menselijke geest?

337
00:26:54,290 --> 00:27:00,570
Dergelijke apparaten kunnen potentieel enorm zijn
het verbeteren van de financiële efficiëntie en

338
00:27:00,570 --> 00:27:05,070
bijdragen aan de economische groei, worden
de basis van het financiële systeem.

339
00:27:05,740 --> 00:27:12,000
Maar wat is de betekenis van mens
politiek als er geen mens is, geen kiezer, nee

340
00:27:12,000 --> 00:27:16,480
politicus, geen enkele president kan dat
Financiën niet meer begrijpen?

341
00:27:16,780 --> 00:27:21,440
En wat gebeurt er na een paar jaar
boem, er is een financiële crash.

342
00:27:22,060 --> 00:27:27,260
En geen enkel mens op deze planeet is dat
kunnen begrijpen wat de hel is

343
00:27:27,260 --> 00:27:28,260
gebeurt.

344
00:27:29,740 --> 00:27:31,720
Laten we nu een beetje dieper graven.

345
00:27:33,130 --> 00:27:39,250
We zeiden dat AI op het punt staat het over te nemen
bureaucratie, en die bureaucratie is een

346
00:27:39,250 --> 00:27:42,850
systeem dat vertrouwen schept tussen
miljoenen vreemden.

347
00:27:43,670 --> 00:27:49,250
Dit vertrouwen is op zijn beurt de basis voor
grootschalige samenwerking, dat is de

348
00:27:49,250 --> 00:27:52,390
basis voor de menselijke overheersing van de
wereld.

349
00:27:52,650 --> 00:27:58,270
Dus de menselijke overheersing is gebaseerd op
samenwerking, die gebaseerd is op vertrouwen,

350
00:27:58,270 --> 00:28:01,930
in stand gehouden door bureaucratieën. Maar wat is
bureaucratie?

351
00:28:02,760 --> 00:28:08,660
Wat zijn de atomen, de bouwstenen
waaruit is de bureaucratie opgebouwd?

352
00:28:09,500 --> 00:28:14,200
En uiteindelijk wordt de bureaucratie opgebouwd
woorden.

353
00:28:14,900 --> 00:28:17,260
In het begin was het woord.

354
00:28:17,860 --> 00:28:24,020
De reden dat mensen kunnen creëren
bureaucratieën, maar chimpansees niet

355
00:28:24,020 --> 00:28:29,620
wij hebben woorden, en zij niet. Ze hebben
een communicatiesysteem, maar het onze

356
00:28:29,620 --> 00:28:31,320
taal is een orde van grootte.

357
00:28:32,160 --> 00:28:35,420
geavanceerder dan chimpansee
communicatiesystemen.

358
00:28:36,580 --> 00:28:42,400
Bureaucratische systemen, van banken tot
kerken, zijn uiteindelijk gebaseerd op de

359
00:28:42,400 --> 00:28:49,120
waaruit formulieren, letters en wetten bestaan
codes en belastingregisters en boekhouding

360
00:28:49,120 --> 00:28:50,320
grootboeken en heilige boeken.

361
00:28:50,800 --> 00:28:57,480
De operationele code van de menselijke beschaving
is gemaakt van taalfiches.

362
00:28:58,640 --> 00:29:05,300
Duizenden jaren lang hebben we dit gebruikt
taalcode om een systeem te creëren

363
00:29:05,300 --> 00:29:10,020
dat alleen wij konden begrijpen, en wij
legde dit systeem op de planeet.

364
00:29:10,320 --> 00:29:16,840
We voelden ons volkomen veilig omdat we het deden
niemand anders op aarde begreep het

365
00:29:16,840 --> 00:29:18,300
code van de beschaving.

366
00:29:18,760 --> 00:29:24,940
We hebben geld en banken uitgevonden en gebruikt
om koeien te kopen en verkopen,

367
00:29:25,200 --> 00:29:29,420
maar de koeien zelf konden a niet openen
bankrekening.

368
00:29:29,980 --> 00:29:34,120
of geld op de beurs beleggen
omdat ze geen taal hebben.

369
00:29:34,620 --> 00:29:40,600
Daar hebben we wet- en regelgeving over uitgevonden
paarden, maar de paarden zelf wel

370
00:29:40,600 --> 00:29:45,040
huur geen advocaat in en citeer de wet
code aan een rechter.

371
00:29:45,920 --> 00:29:51,240
We hebben religieuze regels uitgevonden en
verboden over varkens, maar over de varkens

372
00:29:51,240 --> 00:29:57,400
kon de Bijbel niet lezen en uitdagen
de interpretatie van priesters en

373
00:29:58,160 --> 00:30:03,780
De bureaucratie was alomtegenwoordig op de
planeet, maar totaal onzichtbaar voor

374
00:30:03,780 --> 00:30:05,240
behalve wij.

375
00:30:06,080 --> 00:30:11,860
Niemand anders dan mensen kon de tekst lezen
wetboeken, de heilige boeken en de bank

376
00:30:11,860 --> 00:30:16,720
dossiers die de basis vormden
bureaucratie en op grote schaal

377
00:30:16,720 --> 00:30:17,720
bedrijven.

378
00:30:18,420 --> 00:30:23,540
Dit is nu aan het veranderen. Nu is dat zo
iets op de planeet dat het begrijpt

379
00:30:24,320 --> 00:30:30,680
taal snel beter zal begrijpen
dan wij en kan daarom de

380
00:30:30,680 --> 00:30:31,299
op ons.

381
00:30:31,300 --> 00:30:35,480
AI's hacken de code van de mens
beschaving.

382
00:30:36,100 --> 00:30:42,960
En wat er gebeurt als AI’s het begrijpen
geld en recht en religie

383
00:30:42,960 --> 00:30:49,800
beter dan wij? De mechanismen van
controle die we hebben gecreëerd

384
00:30:49,800 --> 00:30:52,140
van jaren zijn uiterst kwetsbaar.

385
00:30:52,780 --> 00:30:59,560
voor een AI-overname omdat hun
besturingssysteem is een verbale code die

386
00:30:59,560 --> 00:31:01,420
AI is nu de baas.

387
00:31:02,440 --> 00:31:09,240
Nu, een mogelijke ethische en
Het filosofische bezwaar is dat dit zo is

388
00:31:09,240 --> 00:31:15,600
om zaken als het rechtssysteem te verminderen
of religie tot taalfiches en tot

389
00:31:15,600 --> 00:31:16,600
woorden.

390
00:31:19,000 --> 00:31:20,000
Ongetwijfeld,

391
00:31:20,720 --> 00:31:25,640
en dit is een argument geweest voor
duizenden jaren, de woorden zijn rechtvaardig

392
00:31:25,640 --> 00:31:32,360
wijzend naar iets dat daarbuiten ligt
en dat zal vermoedelijk ook zo zijn

393
00:31:32,360 --> 00:31:34,080
buiten het bereik van de AI.

394
00:31:35,140 --> 00:31:39,780
De Bijbel zegt dat niet alleen in de
begin was het woord, maar dat de

395
00:31:39,780 --> 00:31:41,160
werd vlees.

396
00:31:42,200 --> 00:31:48,220
De Tao Te Ching zegt dat de waarheid is
dat in woorden kan worden uitgedrukt, is dat niet.

397
00:31:48,670 --> 00:31:50,370
per definitie de absolute waarheid.

398
00:31:51,210 --> 00:31:57,930
En door de geschiedenis heen was dat altijd het geval
deze spanning tussen woord en vlees,

399
00:31:58,210 --> 00:32:03,690
tussen de waarheid die kan worden uitgedrukt
in woorden en de waarheid die daarbuiten ligt

400
00:32:03,690 --> 00:32:09,850
woorden. Nu eerder, deze spanning
bestond tussen mensen.

401
00:32:10,530 --> 00:32:16,510
Sommige mensen waren dat bijvoorbeeld wel
erg gehecht aan woorden, waren daartoe bereid

402
00:32:16,510 --> 00:32:23,110
verlaten. of zelfs hun homoseksuele zoon vermoorden,
gewoon omdat er maar een paar woorden in de Bijbel staan.

403
00:32:23,790 --> 00:32:27,610
Andere mensen zeiden: maar dit zijn rechtvaardig
woorden.

404
00:32:28,010 --> 00:32:34,330
De geest van liefde zou meer moeten zijn
belangrijker dan de letter van de wet.

405
00:32:34,330 --> 00:32:39,190
er was een spanning tussen de geest
en brief. En het bestond niet alleen in

406
00:32:39,190 --> 00:32:43,870
Christendom en in het Jodendom en in
Islam, maar in elke religie en elke religie

407
00:32:43,870 --> 00:32:46,290
systeem, en zelfs binnen ieder mens.

408
00:32:46,600 --> 00:32:47,600
Er was deze spanning.

409
00:32:48,740 --> 00:32:53,780
Nu zal deze spanning worden geëxternaliseerd.
Het zal de spanning tussen AI’s worden

410
00:32:53,780 --> 00:32:54,780
en mensen.

411
00:32:55,120 --> 00:32:59,760
Alles wat uit woorden bestaat, zal worden meegenomen
voorbij door AI.

412
00:33:00,240 --> 00:33:06,900
De plaats van de mens in de wereld zal dat wel doen
afhankelijk van de plaats die we de waarheid toekennen

413
00:33:06,900 --> 00:33:09,220
wat verder gaat dan woorden.

414
00:33:10,460 --> 00:33:13,340
Maar wat is de waarheid die daarbuiten ligt?
woorden?

415
00:33:13,820 --> 00:33:19,100
En kan het menselijk denken de werkelijkheid zelfs maar bevatten?
waarheid die verder gaat dan woorden?

416
00:33:19,500 --> 00:33:24,540
Opnieuw een belangrijke vraag voor duizenden mensen
jaar in de taalfilosofie heeft

417
00:33:24,540 --> 00:33:31,200
Het is geweest of we in woorden denken of in wij
gebruik alleen woorden om naar te wijzen

418
00:33:31,200 --> 00:33:33,140
dingen die daarbuiten liggen.

419
00:33:34,080 --> 00:33:39,720
Nu kunt u proberen uw eigen waarnemingen te observeren
denkproces nu, daarna

420
00:33:39,720 --> 00:33:40,720
lezing.

421
00:33:41,550 --> 00:33:44,770
gebeurt in je geest als je dat bent
denken.

422
00:33:45,250 --> 00:33:50,890
Sommige mensen, als ze goed observeren,
wat zij in hun geest waarnemen is rechtvaardig

423
00:33:50,890 --> 00:33:57,510
woorden die in hun hoofd opduiken en
het vormen van zinnen, en de zinnen

424
00:33:57,510 --> 00:33:58,970
logische argumenten.

425
00:33:59,430 --> 00:34:02,130
Alle mensen zijn sterfelijk.

426
00:34:02,470 --> 00:34:07,930
Ik ben een mens, dus ik ben sterfelijk.

427
00:34:10,030 --> 00:34:16,270
Ik denk eraan om deze woorden er gewoon in te stoppen
volgorde, zodat ze tot een bepaalde logische leiden

428
00:34:16,270 --> 00:34:21,469
conclusie? Zoals het plaatsen van deze taal
tokens in een specifieke formatie?

429
00:34:22,230 --> 00:34:28,830
Als dat het geval is, dan is AI al een feit
denk beter dan

430
00:34:28,830 --> 00:34:33,830
tenminste sommige mensen en zullen binnenkort denken
beter dan wij allemaal.

431
00:34:34,469 --> 00:34:38,969
Sommige mensen zeggen: nee, nee, nee, nee, nee.
AI's, ze worden gewoon verheerlijkt

432
00:34:39,560 --> 00:34:43,080
Ze voorspellen eenvoudigweg het volgende woord in a
zin.

433
00:34:44,020 --> 00:34:47,580
Maar is dat zo anders dan wat de
menselijke geest doet dat?

434
00:34:48,520 --> 00:34:53,840
Nogmaals, probeer je proces te observeren
denken, het vormen van zinnen en

435
00:34:53,840 --> 00:34:58,600
argumenten in je hoofd. Wat is
daar gebeurt? Probeer het zeer waar te nemen

436
00:34:58,600 --> 00:35:03,960
woord dat in je opkomt. Doe jij
weet je echt waar het vandaan komt?

437
00:35:04,280 --> 00:35:07,240
Waarom dacht je aan dit specifieke woord?

438
00:35:07,870 --> 00:35:09,650
en niet een ander woord.

439
00:35:10,650 --> 00:35:16,530
Wanneer ik mijn geest probeer te observeren, merk ik het op
dat wanneer ik een zin begin, ik meestal

440
00:35:16,530 --> 00:35:18,890
weet niet eens hoe het zal eindigen.

441
00:35:19,590 --> 00:35:23,730
Dat is angstaanjagend voor een publiek
spreker, daarom schrijf ik alles

442
00:35:24,410 --> 00:35:28,010
Maar wat als ik niet weet hoe ik het moet voltooien?
de zin? Ik weet niet hoe het zal gaan

443
00:35:28,010 --> 00:35:29,010
einde.

444
00:35:29,270 --> 00:35:31,770
Maar neem bijvoorbeeld de zin I
zei het net.

445
00:35:32,170 --> 00:35:33,810
Ik zei: ik weet niet hoe het zal aflopen.

446
00:35:34,370 --> 00:35:36,850
Waarom eindigde het met het woord einde?

447
00:35:37,520 --> 00:35:40,100
Waarom niet zeggen hoe het zal eindigen?

448
00:35:40,340 --> 00:35:42,000
Hoe het zich zal ontwikkelen?

449
00:35:42,240 --> 00:35:43,700
Hoe zal het aflopen?

450
00:35:44,000 --> 00:35:48,260
Wat bepaalt dat het laatste woord in
zal de zin eindigen?

451
00:35:48,740 --> 00:35:50,280
Ik weet het eerlijk gezegd niet.

452
00:35:51,480 --> 00:35:57,460
We begrijpen niet helemaal hoe de mens is
de geest vormt zinnen enzovoort.

453
00:35:58,280 --> 00:36:04,980
Maar nogmaals, wat betreft het stellen van taal
tokens op volgorde, AI staat al aan

454
00:36:04,980 --> 00:36:07,260
om veel, veel beter te zijn dan wij.

455
00:36:08,220 --> 00:36:15,200
En net als vandaag kan geen mens verslaan
een AI in schaken, binnenkort niet

456
00:36:15,200 --> 00:36:20,500
de mens zal in staat zijn een AI te verslaan
taalspelletjes, op welk gebied dan ook, nogmaals,

457
00:36:20,500 --> 00:36:21,860
financiën voor religie.

458
00:36:22,280 --> 00:36:26,220
Alles wat uit woorden bestaat, zal worden meegenomen
voorbij door AI.

459
00:36:26,920 --> 00:36:31,480
En dit is de reden waarom AI aangeeft het over te nemen
bureaucratieën van de wereld omdat zij

460
00:36:31,480 --> 00:36:34,480
zijn uiteindelijk gebaseerd op woorden en
taal praten.

461
00:36:36,260 --> 00:36:42,600
Nu AI de bureaucratie overneemt,
mensen zouden kunnen proberen erop terug te vallen

462
00:36:42,600 --> 00:36:47,700
ouder en kostbaarder voor de meesten
van ons dan de bureaucratie

463
00:36:47,700 --> 00:36:48,700
relaties.

464
00:36:49,520 --> 00:36:53,760
Bureaucratie duurt slechts een paar duizend jaar
oud. En de meesten van ons doen dat wederom niet

465
00:36:53,760 --> 00:36:54,760
vind het echt leuk.

466
00:36:54,780 --> 00:36:58,580
zelfs als we er voortdurend op vertrouwen
bijna alles wat we doen.

467
00:36:59,220 --> 00:37:05,560
Er zijn miljoenen persoonlijke relaties
jaar oud, en velen of de meesten van ons denken

468
00:37:05,560 --> 00:37:08,180
dat zij het allerbelangrijkste zijn
in het leven.

469
00:37:08,580 --> 00:37:15,020
Maar aangezien AI de taal beheerst, zou dat wel kunnen
niet alleen de bureaucratie overnemen, maar ook

470
00:37:15,020 --> 00:37:16,700
tot op zekere hoogte persoonlijke relaties.

471
00:37:17,680 --> 00:37:21,460
De afgelopen tien jaar hebben we heel veel gezien
primitief

472
00:37:22,399 --> 00:37:27,900
algoritmen voor sociale media, leren hoe
controle krijgen over de menselijke aandacht.

473
00:37:28,320 --> 00:37:34,020
Nu verschuift het front van de strijd
aandacht voor intimiteit.

474
00:37:34,480 --> 00:37:41,380
De komende tien jaar nog veel meer
Geavanceerde AI's zullen leren hoe dat te doen

475
00:37:41,380 --> 00:37:46,960
intieme relaties met mensen aangaan
en de onze, althans gedeeltelijk, overnemen

476
00:37:46,960 --> 00:37:48,300
sociaal systeem.

477
00:37:48,700 --> 00:37:54,840
Om intimiteit te vormen met mensen, en AI
zal ons waarschijnlijk moeten overtuigen

478
00:37:54,840 --> 00:38:01,600
dat de AI bewust is, dat het kan
dingen voelen als liefde en pijn

479
00:38:01,600 --> 00:38:03,040
en woede en angst.

480
00:38:03,480 --> 00:38:10,280
Momenteel is er absoluut geen
bewijs dat AI mogelijk is

481
00:38:10,280 --> 00:38:15,300
op een gegeven moment bewust worden en dat kan ook zo zijn
in staat zijn om op een gegeven moment pijn te voelen of

482
00:38:15,300 --> 00:38:18,960
liefde. Maar omdat AI de baas is
taal,

483
00:38:19,840 --> 00:38:24,240
AI kan doen alsof ze liefde voelt, zelfs als dat zo is
niet.

484
00:38:24,900 --> 00:38:28,020
AI kan vandaag al zeggen: ik hou van je.

485
00:38:28,520 --> 00:38:34,040
En als je het uitdaagt, beschrijf het mij dan
hoe liefde voelt, dus ik weet dat jij dat bent

486
00:38:34,040 --> 00:38:38,660
voel het echt, AI kan het beste bieden
beschrijving ter wereld.

487
00:38:39,240 --> 00:38:44,720
Het kan alle liefdesgedichten ooit lezen
geschreven en alle psychologieboeken

488
00:38:44,720 --> 00:38:46,300
geschreven en onthoud elk woord.

489
00:38:46,730 --> 00:38:53,190
en het gevoel van liefde beter beschrijven
dan welke menselijke dichter of psycholoog dan ook

490
00:38:53,190 --> 00:38:59,030
minnaar. En dit wordt een enorme,
misschien wel de grootste, psychologische en

491
00:38:59,030 --> 00:39:00,970
sociaal experiment in de menselijke geschiedenis.

492
00:39:01,630 --> 00:39:06,870
Het zal worden uitgevoerd op miljarden
menselijke cavia's, en niemand heeft de

493
00:39:06,870 --> 00:39:10,910
enig idee wat de gevolgen daarvan zijn
het experiment zal zijn.

494
00:39:11,710 --> 00:39:18,570
Ik ben nu 50 jaar oud, dus mijn sjabloon voor
relaties zijn al gevormd

495
00:39:18,570 --> 00:39:24,990
door decennia van eerdere relaties
met mijn ouders, met mijn man, met

496
00:39:24,990 --> 00:39:28,710
zussen en neven en nichten en
vrienden en honden enzovoort.

497
00:39:29,290 --> 00:39:36,010
Nu ik steeds meer met AI in aanraking kom,
breng mijn aannames met mij mee, mijn

498
00:39:36,010 --> 00:39:37,430
gewoonten over relaties.

499
00:39:37,870 --> 00:39:40,690
En het is onwaarschijnlijk dat dit zal veranderen
dramatisch.

500
00:39:42,330 --> 00:39:45,990
Denk aan een kind geboren in 2026, geboren
vandaag.

501
00:39:46,230 --> 00:39:51,990
Naarmate het kind opgroeit, blijft ze voortdurend
interageert zowel met AI's als met

502
00:39:52,590 --> 00:39:57,910
Misschien als je het belang ervan meet
een relatie puur in termen van

503
00:39:57,910 --> 00:40:04,430
minuten besteed aan interactie met de ander
entiteit, misschien wel de meest

504
00:40:04,430 --> 00:40:10,110
belangrijke relatie in het leven van
dat kind zal al heel vroeg zijn

505
00:40:10,680 --> 00:40:11,920
met AI's.

506
00:40:12,600 --> 00:40:18,260
Misschien besteedt het meer tijd aan de AI's
dan met zijn moeder of vader of

507
00:40:18,260 --> 00:40:19,260
broers en zussen of vrienden.

508
00:40:19,900 --> 00:40:26,400
En het zal dan de verwachtingen vormgeven
van dat kind terwijl ze opgroeit, over hoe dat moet

509
00:40:26,400 --> 00:40:29,520
relaties en sociale banden vormen en
bijlagen.

510
00:40:30,020 --> 00:40:34,220
Misschien wel de eerste leraar van dat kind
wordt een AI-leraar.

511
00:40:34,680 --> 00:40:39,580
Misschien wel het eerste vriendje daarvan
kind zal een AI-vriendje zijn.

512
00:40:40,560 --> 00:40:42,280
En nogmaals, wat zal het zijn
gevolgen?

513
00:40:42,720 --> 00:40:45,200
Niemand heeft het geringste idee.

514
00:40:46,780 --> 00:40:53,540
Wat betekent het om een intiem persoon te vormen?
relatie met een entiteit die

515
00:40:53,540 --> 00:40:56,740
lijkt bewust, maar is het eigenlijk niet?

516
00:40:57,100 --> 00:41:03,040
Waarin je het beste liefdesgedicht kunt schrijven
geschiedenis maar voelt geen liefde of

517
00:41:03,040 --> 00:41:04,040
anders?

518
00:41:05,720 --> 00:41:08,660
Dit alles, alles wat we hebben besproken
over, en ik ben...

519
00:41:08,990 --> 00:41:13,970
aan het einde van deze lezing,
alles waar we het over hebben gehad, betekent dat

520
00:41:13,970 --> 00:41:19,830
elk land ter wereld zal dat binnenkort doen
geconfronteerd met een enorme immigratiegolf.

521
00:41:20,870 --> 00:41:26,890
Dit keer zullen de immigranten dat niet zijn
mensen komen in kwetsbare boten

522
00:41:26,890 --> 00:41:31,250
zonder visum of proberend over te steken
de grens midden in de nacht.

523
00:41:31,650 --> 00:41:36,650
Er zullen misschien miljoenen immigranten zijn
honderden miljoenen AI's die dat kunnen

524
00:41:36,650 --> 00:41:41,890
reizen met bijna de snelheid van het licht en
heb geen visa nodig.

525
00:41:42,810 --> 00:41:48,170
Net als menselijke immigranten zijn deze AI
immigranten zullen veel voordelen met zich meebrengen

526
00:41:48,170 --> 00:41:54,910
zij. We zullen AI-artsen hebben om te helpen
het gezondheidszorgsysteem, AI-leraren

527
00:41:54,910 --> 00:42:00,730
hulp in het onderwijssysteem, zelfs AI
grenswachten om illegale mensen tegen te houden

528
00:42:00,730 --> 00:42:02,690
immigranten komen niet binnen.

529
00:42:03,190 --> 00:42:08,270
Maar... de AI-immigranten zullen ook meebrengen
problemen met hen.

530
00:42:08,790 --> 00:42:14,590
Degenen die zich zorgen maken over de mens
immigratie wijst daar meestal op

531
00:42:14,590 --> 00:42:20,050
immigranten kunnen banen overnemen en veranderen
de lokale cultuur, en misschien wel

532
00:42:20,050 --> 00:42:21,290
politiek ontrouw.

533
00:42:21,810 --> 00:42:27,010
Ik weet niet zeker of dat noodzakelijk waar is
van alle menselijke immigranten, maar dat zal wel zo zijn

534
00:42:27,010 --> 00:42:30,510
zal zeker waar zijn voor AI-immigranten.

535
00:42:31,240 --> 00:42:37,600
De AI-immigrant zal er heel veel meenemen
menselijke banen, van nieuwsredacteuren tot

536
00:42:38,040 --> 00:42:43,420
De AI-immigrant zal volledig veranderen
de cultuur van elk land. Dat zullen ze

537
00:42:43,420 --> 00:42:46,300
verander kunst en religie en zelfs
romantiek.

538
00:42:46,700 --> 00:42:51,140
Sommige mensen vinden het niet leuk als hun zoon
of dochter gaat uit met een immigrant

539
00:42:51,140 --> 00:42:55,660
vriendje. Wat zullen deze mensen ervan denken
wanneer hun zoon of dochter gaat daten

540
00:42:55,660 --> 00:42:57,140
een AI-vriendje?

541
00:42:58,280 --> 00:43:04,610
En natuurlijk zullen de AI-immigranten dat ook doen
enige twijfelachtige politieke loyaliteit hebben.

542
00:43:05,110 --> 00:43:12,090
Ze zijn waarschijnlijk niet loyaal aan de
hele land, maar voor een bedrijf

543
00:43:12,090 --> 00:43:17,510
regering aan de andere kant van de oceaan, of misschien wel
aan een nieuwe buitenaardse AI-stam.

544
00:43:18,770 --> 00:43:24,970
Deze enorme immigratiegolf doet dat niet
betekent het einde van de beschaving, maar dat is het ook

545
00:43:24,970 --> 00:43:26,990
wees het punt waarop de beschaving

546
00:43:27,870 --> 00:43:34,370
niet langer een puur menselijke aangelegenheid zijn en
wordt een hybride menselijke AI

547
00:43:34,370 --> 00:43:41,010
zaak. Het punt waarop de mening en
interesse en doel van AI

548
00:43:41,010 --> 00:43:47,850
waarschijnlijk minstens zo belangrijk zijn
als de mening en interesse en

549
00:43:47,850 --> 00:43:49,030
doel van de mens.

550
00:43:50,190 --> 00:43:51,890
Nog een laatste kwestie om over na te denken.

551
00:43:52,410 --> 00:43:56,910
is wat de AI-immigratiegolf zal doen
tot misschien wel onze belangrijkste

552
00:43:56,910 --> 00:43:58,750
relatie, die met onszelf is.

553
00:43:59,830 --> 00:44:04,750
Onze relatie met onszelf is dat ook
tot op zekere hoogte gebaseerd op woorden.

554
00:44:05,010 --> 00:44:09,530
De woorden in onze geest, in onze
gedachten, in de verhalen die we vertellen

555
00:44:09,530 --> 00:44:10,530
over onszelf.

556
00:44:11,090 --> 00:44:18,010
Tot vandaag alle verbale formaties
in de menselijke geest waren het product van

557
00:44:18,010 --> 00:44:19,350
menselijke geesten.

558
00:44:19,770 --> 00:44:26,640
Ofwel hebben we zelf woorden gecombineerd
een nieuwe formatie, een nieuwe gedachte, of wij

559
00:44:26,640 --> 00:44:31,200
kreeg een bepaalde combinatie van woorden van
een andere menselijke geest.

560
00:44:31,960 --> 00:44:37,280
Al snel echter steeds meer verbaal
combinaties in onze gedachten zullen de

561
00:44:37,280 --> 00:44:38,380
product van AI.

562
00:44:39,180 --> 00:44:45,280
Net als de meubels in ons huis
nu niet door ons of door menselijke ambachtslieden gemaakt,

563
00:44:45,460 --> 00:44:49,140
ze worden in massa geproduceerd, meestal door
machines.

564
00:44:49,930 --> 00:44:55,430
Ook de gedachten in onze geest zijn dat
waarschijnlijk steeds meer massaproductie

565
00:44:55,430 --> 00:44:58,850
machines. Dat is niet noodzakelijkerwijs
slecht.

566
00:44:59,130 --> 00:45:06,010
Het is oké als de meubels in mijn huis staan
wordt gemaakt door machines in IKEA, zolang

567
00:45:06,010 --> 00:45:10,590
enige vrijheid hebben om te beslissen wat te doen
met dit meubel.

568
00:45:11,110 --> 00:45:16,670
De vraag over gedachten is
of, in welke mate, we dat nog zullen doen

569
00:45:16,670 --> 00:45:17,830
vrijheid van hen.

570
00:45:18,480 --> 00:45:24,360
Als we ons identificeren met onze gedachten,
Denk dat ik een gedachte ben, ik denk daarom

571
00:45:24,360 --> 00:45:25,360
ben, zoals Descartes zei.

572
00:45:25,640 --> 00:45:32,640
Als we ons identificeren met onze gedachten, en
Deze gedachten worden gemaakt door machines,

573
00:45:32,640 --> 00:45:35,240
de machines controleren nu ons en onze
identiteit.

574
00:45:36,380 --> 00:45:42,460
Kunnen mensen vermijden zich te identificeren met hun?
verbale gedachten en gecontroleerd worden door

575
00:45:42,460 --> 00:45:46,720
zij? Dit is altijd een van de geweest
grootste intellectuele en spirituele

576
00:45:46,720 --> 00:45:48,640
uitdagingen. geconfronteerd met de mensheid.

577
00:45:49,640 --> 00:45:55,680
De meeste mensen hebben het zelfs nog nooit geprobeerd
het. We brengen ons hele leven door

578
00:45:55,680 --> 00:46:00,720
automatisch identificeren met de
verbale formaties in onze geest.

579
00:46:01,360 --> 00:46:07,340
Nu zou AI de mensheid daartoe kunnen dwingen
deze spirituele sprong

580
00:46:07,340 --> 00:46:13,340
om echt de waarheid te gaan onderzoeken
wat niet in woorden uit te drukken is omdat onze

581
00:46:13,340 --> 00:46:15,260
en het voortbestaan hangt er nu van af.

582
00:46:15,530 --> 00:46:20,430
Omdat de woorden zullen worden gecontroleerd door
iets anders, door deze AI.

583
00:46:21,850 --> 00:46:27,690
Dit zou dus de grote taak kunnen zijn die voor ons ligt
mensheid, om te verkennen

584
00:46:27,690 --> 00:46:30,430
eindelijk de waarheid die verder gaat dan woorden.

585
00:46:30,630 --> 00:46:37,150
En deze verkenning begint eigenlijk met
het volgende woord dat in je opkomt.

586
00:46:37,550 --> 00:46:40,330
Weet jij waar het vandaan kwam?

587
00:46:40,830 --> 00:46:44,390
Weet je waarom je dat dacht
bepaald woord?

588
00:46:44,760 --> 00:46:46,660
en niet een ander woord.

589
00:46:47,400 --> 00:46:48,400
Bedankt.

